Nicolai Gumilyov sinh ở Kronstadt, là con trai của bác sĩ Stepan Yakovlevich Gumilev và Anna Ivanovna L'vova. Thuở nhỏ sống ở Hoàng thôn, học ở trường gymnazy do nhà thơ nổi tiếng Innokenty Annensky làm hiệu trưởng. Học xong trường gymnazy, Nicolai Gumilyov học Đại học Saint Petersburg và Đại học Sorbonne. Năm 1902 in bài thơ đầu tiên ở một tờ báo. Năm 1905 tập thơ đầu tiên Con đường của những nhà chinh phục (Путь конквистадоров). Từ năm 1907 đi du lịch sang các nước châu Âu nhiều lần. Năm 1908 in tập thơ Những bông hoa lãng mạn (Романтические цветы).

Năm 1910 Nicolai Gumilyov và Anna Akhmatova làm đám cưới, hai năm sau sinh con trai Lev Gumilyov – sau này là một nhà khoa học nổi tiếng của Nga. Năm 1911 thành lập phái Đỉnh cao (акмеизм) cùng với Anna Akhmatova và Osip Mandelstam. Năm 1912 in tập thơ Bầu trời xứ lạ (Чужое небо). Từ năm 1914 đến 1918 tham gia quân đội. Năm 1918 chia tay với Anna Akhmatova, năm 1919 cưới Anna Engelgardt.

Năm 1921 Nicolai Gumilyov in hai tập thơ lấy cảm hứng từ những chuyến đi châu Phi, cũng trong năm này ông bị bắt do nghi ngờ tham gia vào tổ chức vũ trang Tagantsev và bị xử bắn, nơi xử bắn và phần mộ không rõ.

Nicolai Gumilyov không chỉ là nhà thơ mà ông còn là một nhà thám hiểm châu Phi có tiếng. Ông tham gia các đoàn thám hiểm đông và bắc Phi, mang về cho bảo tàng dân tộc học ở Saint Petersburg nhiều bộ sưu tập có giá trị. Ngoài sáng tác thơ ông còn là một nhà văn với nhiều truyện hay và là một dịch giả xuất sắc.